Safeguarding Knowledge: Ethical Artificial Intelligence Governance in the University Digital Transformation
Safeguarding Knowledge: Ethical Artificial Intelligence Governance in the University Digital Transformation
Rafael Molina-Carmona (Universidad de Alicante) and Francisco José García-Peñalvo (Universidad de Salamanca)
In: Vendrell Vidal, E., Cukierman, U.R., Auer, M.E. (eds)
Advanced Technologies and the University of the Future
Lecture Notes in Networks and Systems, vol 1140.
Springer, Cham
https://link.springer.com/book/10.1007/978-3-031-71530-3
Acceso al pdf: https://doi.org/10.1007/978-3-031-71530-3_14
Abstract
Higher Education Institutions (HEIs) safeguard knowledge, uphold academic integrity, and contribute to societal progress. They are custodians of knowledge, promoting innovation, addressing societal challenges, and disseminating research ethically. With the rise of Artificial Intelligence (AI), effective gover- nance becomes crucial to ensure responsible use, protect rights, and foster inno- vation in HEIs. A proposal for a governance framework for AI in Higher Education is presented, designed to be simple, tailored to universities, and easily integrated into existing digital transformation efforts. Specific goals include examining AI’s impact, evaluating governance models, suggesting adaptable principles, and defining a framework that balances innovation, ethics, and regulatory compliance. It takes into account that AI in higher education reshapes teaching, research, and administration, and makes emphasis on ethical deployment and observation of the national and international policies and regulations. The proposal sets out four fundamental principles for AI in universities to be applied to every phase of knowledge generation: the principles of legality, neutrality, transparency, and promotion of innovation. As a consequence, the AI Governance Grid is obtained, that allows the identification of 12 key aspects to consider in order to ensure that the governance proposal complies with the principles. A structure for AI Governance is also proposed so that it is efficient and also takes advantage of the expertise that universities already have, as well as being in line with the international standards for IT Governance. Finally, a set of best practices for AI governance is also proposed that aims to provide practical guidance for simple implementation.
Digital Transformation (DX)
Digital Transformation (DX)
Section Introduction
Faraón Llorens Largo (Universidad de Alicante) & Antonio Fernández Martínez (Universidad de Almería)
In: Vendrell Vidal, E., Cukierman, U.R., Auer, M.E. (eds)
Advanced Technologies and the University of the Future
Lecture Notes in Networks and Systems, vol 1140.
Springer, Cham
https://link.springer.com/book/10.1007/978-3-031-71530-3
Acceso al pdf: https://doi.org/10.1007/978-3-031-71530-3_13
Abstract
The digital revolution has been affecting universities for years. Information technologies (IT) have been present in universities since their inception, since they were born in their laboratories and have been used for their main tasks: researchers have used their great communication potential to communicate with their colleagues in other universities and countries; professors have gradually incorporated them into their teaching; and universities themselves have used them to manage their administrative procedures.
Mi experiencia con la IA generativa en mis clases de lógica: útil pero no fiable
Mi experiencia con la IA generativa en mis clases de lógica: útil pero no fiable
Faraón Llorens Largo, Universidad de Alicante.
La Inteligencia Artificial y su aplicación en la práctica profesional
Colegio Oficial de Doctores y Licenciados en Filosofía y Letras y en Ciencias de Alicante
Docentes y Profesionales de la Cultura
www.cdlalicante.org
Boletín Edición Alicante
2º semestre 2024, nº 44
www.cdlalicante.org/es/boletines
La IA generativa
Desde la aparición de ChatGPT en noviembre de 2022, la IA generativa ha captado la atención de todos, especialmente en el ámbito educativo, que está siendo convulsionado. La capacidad de crear (generar) textos nuevos, basados en todos los que ha leído (con los que ha sido entrenada), pero distinto a todos ellos, pone en solfa los trabajos académicos que nuestros estudiantes nos entregan. La evaluación académica basada en productos entregables se sustenta en dos pilares: la calidad del trabajo presentado y su autoría. Esta doble componente se hizo evidente durante la pandemia, en la que perdimos la seguridad sobre la autoría de los trabajos realizados.
Ahora, la IA generativa desafía la autenticidad de todo. ¡Ya no podemos estar seguros ni de lo que vemos!
Para ilustrar el impacto de la IA generativa en el entorno educativo, me centraré en algunos experimentos que he realizado en mi asignatura de Lógica, en el primer curso del Grado en Ingeniería en Inteligencia Artificial.
/…/
Poniendo en valor las preguntas y el diálogo
Considerar que ChatGPT lo sabe todo es no solo un error, sino también una actitud peligrosa y temeraria. Sin embargo, como herramienta, la IA generativa es extremadamente potente. Utilizar estos sistemas para corregir automáticamente ejercicios académicos no resulta recomendable, ya que la precisión y la claridad de las respuestas dependen en gran medida de cómo se plantean las preguntas. De ahí surge un nuevo perfil: la ingeniería de prompts.
Pero una de las aplicaciones más interesantes en el ámbito educativo es emplear la IA generativa como un medio para fomentar la interacción y el pensamiento crítico. En lugar de tomar sus respuestas como verdades absolutas, debemos utilizarlas como punto de partida para entablar un diálogo reflexivo sobre el tema en cuestión. Asumir la IA como un oráculo infalible es un grave error. Utilizarla como compañera de discusión siguiendo el método socrático puede ser seductor.
Estas consideraciones nos llevan a reflexionar sobre la evaluación del aprendizaje de nuestros estudiantes, sugiriendo que debemos transitar de una evaluación centrada en productos finales y respuestas correctas hacia una evaluación basada en el proceso y caracterizada por la capacidad de hacerse preguntas.
¿Ética o ideología de la inteligencia artificial?
¿Ética o ideología de la inteligencia artificial?
El eclipse de la razón comunicativa en una sociedad tecnologizada
Adela Cortina
PAIDÓS Estado y Sociedad (www.paidos.com)
https://www.planetadelibros.com/libro-etica-o-ideologia-de-la-inteligencia-artificial/400347
Frases entresacadas e ideas interesantes que puedo utilizar:
(Página 39)
“Este punto es central: las máquinas carecen del conocimiento de sentido común que es posible por nuestras vivencias corporales. El cuerpo es esencial para dar significado a lo que nos rodea mediante la intencionalidad para comprender e interpretar desde los contextos concretos, para contar con valores, emociones y sentimientos, para tomar decisiones desde el ethos. La cuestión es entonces: ¿es posible dotar de sentido común a las máquinas, aunque no tengan un cuerpo como el humano?”
(Página 98)
“Por eso, y a pesar de que haya hecho fortuna la expresión “vehículo autónomo”, no lo es en el pleno sentido de la palabra, aunque pueda actuar con independencia de terceros.
A lo sumo, y sobre esto existe un amplio consenso, tendrá autonomía funcional, actuará como si fuera autónomo, pero no contará con autonomía ontológica y ética. Y esta distinción es de la mayor trascendencia, entre otras razones, porque el coche no es responsable de las actuaciones, y por eso importa construirlo con pautas que respeten los códigos éticos valiosos.”
(Página 182)
“Y no ayuda mucho, sino todo lo contrario, ese nuevo dogmatismo de nuestro tiempo que consiste en tomar los resultados de los algoritmos y convertirlos en decisiones sin crítica alguna en los distintos ámbitos de la vida social, en vez de utilizarlos como instrumentos para tomar mejores decisiones.”
Capítulo 12
Educar en la era de la inteligencia artificial
(Páginas 203-221)
(Página 209)
“La IA generativa ayuda a los alumnos generando textos, imágenes, música, les ayuda a practicar debates, entabla conversaciones, responde a preguntas, busca información compleja, genera ideas sobre un tema, oficia de tutor. Naturalmente, estas aportaciones obligan a cambiar en la escuela los procedimientos de evaluación, porque no pueden reducirse a preguntas o trabajos que puede responder ChatGPT, sino que hay que recurrir a métodos en que el alumno muestre de algún modo su preparación, originalidad y protagonismo. Esto supone el fin de los deberes tradicionales.”
(Página 213)
“Sin embargo, a mi juicio, no se trata de redefinir los sistemas educativos como tales, sino de contar con nuevos instrumentos que deben servir para formar una ciudadanía capaz de utilizarlos para tomar conciencia de la estructura del mundo en que vive y de posicionarse ante ella desde unos valores éticos democráticos. Una ciudadanía preparada para conocer el mundo y comprenderlo, no sólo para tener información sobre él.”
Transformación Digital Educativa
Transformación Digital Educativa
Cuarto Seminario
Segunda edición: Seminario-taller iberoamericano
Por una ruta hacia la calidad en la educación a distancia y virtual en las IES
28 de noviembre de 2024
https://www.seminario-taller-iberoamericano.com/seminario4
Panel 2:
Moderador: Ph. D. Germán Gallego, Universidad Autónoma de Occidente (UAO) – Cali
Ponentes:
Albert Sangrà, Universitat Oberta Catalunya (UOC)
Armando De Giusti, Universidad Nacional de la Plata (UNLP)
Faraón Llorens, Universidad de Alicante.
Instituto Latinoamericano y del Caribe de Calidad en Educación Superior a Distancia (CALED)
IA y Educación: Creando Nuevas Fronteras de Innovación
IA y Educación: Creando Nuevas Fronteras de Innovación
Faraón Llorens, Universidad de Alicante.
Ismael Gómez, director Estrategia Digital Global de la OEI.
Segundo Piriz, rector de UNIE Universidad, Grupo Planeta.
Moderación: Juan Miguel Sucunza, vicepresidente CEAPI y vicepresidente ejecutivo del Grupo Eulen
Presentación Nº 12 de la revista PÓDIUM. Iberoamérica 4.0- Innovación y productividad en la era de la inteligencia artificial
https://www.ucv.es/oferta-academica/congresos-y-jornadas/congresos-y-jornadas-2024/ii-congreso-internacional-de-politicas-educativas-entre-europa-e-iberoamerica/presentacion
Organización de Estados Iberoamericanos para la Educación, la Ciencia y la Cultura (OEI)
Programa completo:
https://oei.int/oficinas/secretaria-general/eventos/presentacion-no-12-de-la-revista-podium-iberoamerica-4-0-innovacion-y-productividad-en-la-era-de-la-inteligencia-artificial
Noticia:
https://oei.int/oficinas/secretaria-general/noticias/una-publicacion-de-la-oei-analiza-el-impacto-de-la-ia-en-la-educacion-y-la-productividad-de-iberoamerica
Podium: revista iberoamericana de educación e innovación para la productividad. Nº 12, junio de 2024
https://oei.int/oficinas/secretaria-general/publicaciones/podium-revista-iberoamericana-de-educacion-e-innovacion-para-la-productividad-n-12-junio-de-2024
Iberoamérica 4.0: innovación y productividad en la era de la inteligencia artificial
Acceso al pdf
Página 12
IA o AI, esta es la cuestión
Faraón Llorens Largo
https://blogs.ua.es/faraonllorens/2024/06/03/ia-o-ai-esta-es-la-cuestion
Hic Sunt Dracones
Hic Sunt Dracones
Faraón Llorens
II Congreso Internacional de Políticas Educativas entre Europa e Iberoamérica
https://www.ucv.es/oferta-academica/congresos-y-jornadas/congresos-y-jornadas-2024/ii-congreso-internacional-de-politicas-educativas-entre-europa-e-iberoamerica/presentacion
Universidad Católica de Valencia (www.ucv.es)
Organización de Estados Iberoamericanos para la Educación, la Ciencia y la Cultura (OEI)
Divina comedia – Infierno
Divina comedia
Infierno
Dante Alighieri
Blackie Books (www.blackiebooks.org)
Clásicos liberados
https://blackiebooks.org/catalogo/clasicos-liberados-divina-comedia-infierno-dante-alighieri
Solo pongo los libros relacionados con la tecnología y con educación. Pero este me ha parecido tan especial que he querido compartirlo.
Frases entresacadas e ideas interesantes que puedo utilizar:
(Página )
“”
IA generativa en educación: Tampoco era para tanto … ¿o sí?
IA generativa en educación: Tampoco era para tanto … ¿o sí?
Faraón Llorens Largo
Didacticae. Revista de Investigación en Didácticas Específicas, nº 16 (2024), páginas 1-4
https://doi.org/10.1344/did.47814
https://revistes.ub.edu/index.php/didacticae/article/view/47814
Parece que las aguas han vuelto a su cauce. La gran ola que levantó la inteligencia artificial generativa hace casi dos años ha comenzado a debilitarse. La pregunta que podemos hacernos es si se generaron expectativas – y temores – excesivos. Mi tesis es, como sugiere el título, que aunque no haya sido para tanto, tampoco podemos ignorar su impacto. La IA generativa representa un punto de inflexión del que el mundo educativo y las didácticas no pueden apartarse; lo que esta tecnología es capaz de hacer en el presente, y lo que la IA en general representará para la sociedad, debe ser atendido.
/…/
La irrupción de la inteligencia artificial generativa en el ámbito educativo ha suscitado tantas expectativas como inquietudes. Nos han dicho que cambiaría por completo la manera en que enseñamos, aprendemos y evaluamos. Sin embargo, tras el entusiasmo inicial, cabe preguntarse: ¿ha cumplido realmente con todo lo que prometía? ¿O simplemente se ha sumado a la larga lista de tecnologías que prometen mucho, pero transforman poco? Cada cual tiene su propia respuesta a estas preguntas. Mi recomendación, sin embargo, es que no subestimemos ni despreciemos esta tecnología. La IA toca el corazón de nuestra labor como profesores: el desarrollo de la capacidad de pensar de nuestros estudiantes.
Cómo citarlo:
Llorens Largo, F. (2024). IA generativa en educación: tampoco era para tanto … ¿o sí? Didacticae, (16), 1-4. https://doi.org/10.1344/did.47814
También disponible versión en inglés, Generative AI in education: It wasn’t that big of a deal… or was it?, traducida por Maria-del-Mar Suárez:
Llorens Largo, F. (2024). Generative AI in education: It wasn’t that big of a deal… or was it? [Trad. M. M. Suárez]. Didacticae, (16), 1-4. https://doi.org/10.1344/did.47814
Nexus
Nexus.
Una breve historia de las redes de información desde la Edad de Piedra hasta la IA
Yuval Noah Harari
Debate (www.penguinlibros.com)
https://www.penguinlibros.com/es/ciencia-y-tecnologia/341121-libro-nexus-9788419951021
Enlaces de interés:
21 lecciones para el siglo XXI
Homo deus. Breve historia del mañana
Sapiens. De animales a dioses
Una crítica interesante de Leonardo Padura en El País, Yuval Noah Harari, ¿apocalipsis now?: https://elpais.com/babelia/2024-11-30/apocalipsis-now.html
Frases entresacadas e ideas interesantes que puedo utilizar:
(Página )
“”